本文详细介绍了大模型技术栈在训练和推理中的关键框架，包括deepspeed、Megatron-LM、colossal-ai等训练框架，以及triton等推理框架。文章探讨了这些框架的特性和优势，以及如何应对内存优...

浏览 77 次 标签： 大模型技术栈-实战与应用 训练框架 deepspeed Megatron Megatron-LM Megatron-DeepSpeed colossal-ai 推理框架 triton 向量数据库